Selepas pemusnahan Chen, Yao Silian berkhidmat sebagai penasihat tentera kepada anak Maharaja Wen Yang Liang Putera Han. Pada satu ketika, disebabkan kematian Yao Cha, dia meletak jawatan untuk memerhatikan tempoh berkabung. Beliau kemudiannya berkhidmat sebagai setiausaha di kerajaan Hejian Commandery (河間, lebih kurang moden Baoding, Hebei ). Dia meminta kebenaran daripada anak Maharaja Wen dan pengganti Maharaja Yang untuk terus menulis sejarah Liang dan Chen yang Yao Cha telah mulakan, dan Maharaja Yang bersetuju. Maharaja Yang selanjutnya mengarahkan beliau dan pegawai lain, Cui Zujun (崔祖濬), untuk mengetuai pasukan ulama dalam merangka peta dan sejarah wilayah. Beliau kemudiannya berkhidmat sebagai guru kepada cucu Maharaja Yang Yang You Putera Dai. [4] [5] [6]

Menjelang 617, negeri Sui telah diselubungi oleh pemberontakan agraria, dan Maharaja Yang berada di Jiangdu (江都, dalam Yangzhou moden, Jiangsu ), meninggalkan Yang You secara nominal bertanggungjawab ke atas Chang'an, apabila jeneral Li Yuan, Duke of Tang memulakan pemberontakan dan menyerang Chang'an, mendakwa bahawa niatnya adalah untuk menjadikan Yang You sebagai maharaja. Apabila Chang'an jatuh pada musim sejuk 617, dikatakan bahawa kakitangan Yang You semua melarikan diri, kecuali Yao Silian, yang tinggal bersama Yang You, dan ketika askar Li Yuan memasuki rumah Yang You, menjerit dengan keras, "Duke of Tang memulakan pemberontakannya untuk mengamankan puak empayar. Kamu tidak boleh bersikap tidak sopan kepada Putera." Askar berundur. Li Yuan kagum dengan dedikasi Yao kepada Yang You, dan sementara dia masih menahan Yang You oleh orang bawahannya sendiri, membenarkan Yao menemani Yang You ke Pavilion Shunyang (順陽閣) sebelum pergi. Orang ramai yang menyaksikan peristiwa itu memberi komen, “Kononnya orang yang baik hati juga berani. Lelaki ini adalah contoh." Li Yuan tidak lama kemudian mengisytiharkan Yang You maharaja (sebagai Maharaja Gong), tetapi selepas menerima berita pada tahun 618 bahawa Maharaja Yang telah dibunuh dalam rampasan kuasa di Jiangdu yang diketuai oleh jeneral Yuwen Huaji, menyuruh Yang You menyerahkan takhta kepadanya, menubuhkan Dinasti Tang sebagai Maharaja Gaozu. [4] [5] [6]